RESUMO
Resumo Fundamento A Sociedade Brasileira de Cardiologia promove anualmente a prova para obtenção do título de especialista em Cardiologia, sendo a Comissão Julgadora do Título de Especialista em Cardiologia responsável pela sua organização e aplicação. A análise psicométrica dos itens de uma prova, por meio da Teoria de Resposta ao Item (TRI) pode fornecer informações robustas e contribuir para o aprimoramento contínuo dessa avaliação. Objetivos Avaliar as propriedades psicométricas da prova do Título de Especialista em Cardiologia no ano de 2019, em relação aos parâmetros da TRI. Métodos Estudo observacional, com a análise psicométrica das 120 questões da prova realizada por 1120 (mil cento e vinte) candidatos para a obtenção do título de especialista em Cardiologia, no ano de 2019. Resultados A análise da prova pela TRI mostrou 32,2% dos itens com poder de discriminação "alto" ou "muito alto", 49,2% dos itens categorizados como "fácil" ou "muito fácil" e 41,5% apresentavam alta probabilidade de acerto ao acaso . Foram identificados 69 itens com problemas em relação aos parâmetros da TRI e, portanto, com baixo poder de avaliar a proficiência do candidato. Conclusões A análise psicométrica da prova de título de Especialista em Cardiologia pela TRI demonstrou um alto percentual de questões fáceis, com cerca de dois terços dos itens com alta probabilidade de acerto ao acaso. Esses dados poderão desencadear uma série de discussões e propostas para a construção das futuras provas em cardiologia.
Abstract Background The Cardiology Certification Exam is issued annually by the Brazilian Cardiology Society and set and applied by the Judging Committee for the Cardiologist Title (CJTEC). The psychometric analysis of the exam items using the Item Response Theory (IRT) may provide robust data that can help in the continuous improvement of this instrument. Objectives To evaluate the psychometric properties of the 2019 Cardiology Certification Exam in relation to the IR parameters. Methods This was an observational study, with psychometric analysis of the 120 questions of the exam taken by 1,120 candidates for the title of Cardiologist in 2019. Results The IRT analysis revealed that 32.2% of the items had a "high" or "very high" discriminating power, 49.2% were categorized as "easy" or "very easy", and 41.5% showed a high probability of a correct guessing. Sixty-nine deficient items in terms of the IRT parameters were identified, which were then considered poorly effective in evaluating the candidate's ability. Conclusions The psychometric analysis of the 2019 Cardiology Certification Exam by the IRT revealed a high percentage of easy questions, with nearly two thirds of the items with a high probability of correct guessing. These data may serve as a basis for a series of discussions and proposals for the elaboration of future certificate exams in Cardiology.
RESUMO
Resumo Fundamento O ensino do raciocínio clínico (RC) pode ser facilitado por estratégias educacionais orientadas pela teoria dos scripts de doenças (SD). Objetivo Avaliar o efeito de uma estratégia educacional guiada pela teoria dos SD na acurácia diagnóstica (AD) da dor torácica (DT) em estudantes de medicina. Métodos Estudo experimental em 3 fases, com 18 estudantes do 3º ano concluindo a fase 3, visto que as fases 1 e 2 tiveram 27 alunos. Na fase 1, cada participante resolveu 8 casos clínicos (6 de DT e 2 distratores). Na fase 2,os participantes foram divididos em 2 grupos, que treinaram distintamente 3 dos diagnósticos de DT da fase 1.Na fase 3, após uma semana, cada participante resolveu 8 novos casos, com os mesmos diagnósticos da fase 1.O tempo de resolução dos casos (TRC) e a AD foram avaliados. O nível de significância adotado na análise estatística foi p < 0,05. Resultados Na fase 3, foram observadas melhora da AD e redução do TRC para os diagnósticos treinados em ambos os grupos, não ocorrendo transferência de aprendizagem. Para esses diagnósticos, os escores de AD nas fases 1 e 3 foram: grupo 1 = 1,00, IIQ [0,00-1,00] versus 2,00, IIQ [2,00-2,50]; p = 0,017 e grupo 2 = 1,00, IIQ [0,66-1,17] versus 3,00, IIQ [1,33-3,00]; p = 0,006. O TRC em segundos foram: Grupo 1: 485, IIQ [450-583] versus 318, IIQ [284-418]; p = 0,027 e grupo 2: 655, IIQ [543-740] versus 408, IIQ [337-569]; p = 0,010. Conclusão A estratégia parece contribuir para melhora da AD e pode ser considerada para o ensino do RC.
Abstract Background Teaching of clinical reasoning (CR) can be facilitated by educational strategies guided by illness script theory. Objective To evaluate the effects of an educational strategy guided by illness script theory on the diagnostic accuracy of chest pain in medical students. Methods Experimental study in 3 phases, with 18 third-year medical students completing phase 3. Phases 1 and 2 had 27 students. In phase 1, each participant solved 8 clinical cases (6 of chest pain and 2 distractors). In phase 2, participants were divided into 2 groups, which distinctly trained 3 of the chest pain diagnoses from phase 1. In phase 3, after 1 week, each participant solved 8 new cases, with the same diagnoses as phase 1. Case resolution time and diagnostic accuracy were evaluated. The significance level adopted for statistical analysis was p < 0.05. Results In phase 3, both groups showed improved diagnostic accuracy and reduced case resolution time for the trained diagnoses, with no transfer of learning. For these diagnoses, the diagnostic accuracy scores in phases 1 and 3 were: group 1 = 1.00, IQR [0.00 to 1.00] versus 2.00, IQR [2.00 to 2.50], p = 0.017 and group 2 = 1.00, IQR [0.66 to 1.17] versus 3.00, IQR [1.33 to 3.00], p = 0.006. Case resolution times in seconds were: group 1: 485, IQR [450 to 583] versus 318, IQR [284 to 418], p = 0.027 and group 2: 655, IQR [543 to 740] versus 408, IQR [337 to 569], p = 0.010. Conclusion The proposed strategy seems to contribute to improved diagnostic accuracy, and it may be considered for teaching CR.